Trong văn học phương Đông, danh từ tiểu thuyết xuất hiện khá sớm nhằm phân biệt với hai thể loại cơ bản khác là đại thuyết và trung thuyết. Đại thuyết là kinh sách của các thánh nhân viết như Kinh Thư, Kinh Thi của Khổng Tử, đó là loại sách mang nặng tính triết học, gần như chân lý, kiểu khuôn vàng thước ngọc và rất khó đọc. Trung thuyết do các hiền sư, sử gia thực hiện như Sử ký của Tư Mã Thiên. Còn tiểu thuyết, vốn chỉ những chuyện vụn vặt, đời thường. Những chuyện ấy cùng với cổ tích, ngụ ngôn là những mầm mống của tiểu thuyết phương Đông. Thuỷ Hử và Hồng Lâu Mộng là một trong những số đó.

Theo quan niệm trước đây, đặc biệt là quan niệm của Trung Quốc và Nhật Bản, tiểu thuyết bao gồm có hai loại chính là tiểu thuyết đoản thiên hay truyện ngắn, thậm chí là "vi hình tiểu thuyết" (truyện cực ngắn, truyện siêu ngắn) hay "truyện trong lòng bàn tay"[2]) và tiểu thuyết trường thiên (truyện dài). Tuy nhiên hiện nay, ở Việt Nam, khi nói đến tiểu thuyết, độc giả thường hiểu đó là tác phẩm truyện dài.

Ở một số ngôn ngữ phương Tây, từ tiểu thuyết có nguồn gốc từ tiếng Latinh, mang nghĩa chuyện mới (novel).

Song song với tiến trình này, văn học hiện đại thế giới cũng cho thấy những nguyên lý của tiểu thuyết chi phối hầu hết các tác phẩm tự sự khác nên sự phân biệt bản chất thể loại ở các truyện cụ thể trở nên ngày càng khó khăn.